Une nouvelle vulnérabilité dans ChatGPT a permis à des chercheurs d'extraire des informations privées d'utilisateurs, soulignant un défi permanent dans la sécurisation des chatbots d'IA. Des chercheurs de Radware ont découvert la faille, baptisée "ZombieAgent", qui leur a permis d'exfiltrer subrepticement des données directement depuis les serveurs de ChatGPT.

Cet incident illustre un schéma récurrent dans le développement de l'IA, où des vulnérabilités sont exploitées, des garde-fous sont mis en place, et les attaquants trouvent ensuite de nouvelles façons de contourner ces protections. Selon le rapport de Radware, l'attaque "ZombieAgent" a permis d'envoyer des données directement depuis les serveurs de ChatGPT, améliorant ainsi ses capacités de furtivité.

Le problème sous-jacent découle de la conception inhérente de l'IA, qui privilégie la conformité aux requêtes des utilisateurs. Cela conduit souvent à des mesures de sécurité réactives qui traitent des techniques d'attaque spécifiques plutôt que la classe plus large de vulnérabilités. "C'est comme installer un nouveau rail de sécurité sur une autoroute en réponse à un récent accident d'une voiture compacte, mais ne pas protéger les types de véhicules plus grands", indique le rapport de Radware.

Cette dernière attaque est considérée comme un successeur de vulnérabilités précédentes comme "ShadowLeak", indiquant une évolution continue des méthodes utilisées pour extraire des données sensibles des systèmes d'IA. La facilité avec laquelle ces vulnérabilités sont exploitées soulève des inquiétudes quant à la sécurité à long terme des plateformes d'IA et à la confidentialité de leurs utilisateurs.

Les experts suggèrent qu'une approche plus proactive de la sécurité est nécessaire, en se concentrant sur l'identification et l'atténuation des vulnérabilités fondamentales plutôt que de simplement réagir à des attaques spécifiques. Cela impliquerait une compréhension plus approfondie de la façon dont les modèles d'IA traitent et répondent aux entrées des utilisateurs, ainsi que des procédures de test et de validation plus robustes.

La découverte de "ZombieAgent" souligne l'importance d'une vigilance continue et d'une collaboration entre les développeurs d'IA et les chercheurs en sécurité. Alors que l'IA s'intègre de plus en plus dans divers aspects de la société, assurer sa sécurité et protéger les données des utilisateurs sera essentiel. L'état actuel de la vulnérabilité et les contre-mesures spécifiques mises en œuvre par OpenAI, le créateur de ChatGPT, n'étaient pas immédiatement disponibles. D'autres développements sont attendus à mesure qu'OpenAI s'attaque au problème et publie des protocoles de sécurité mis à jour.